A tecnologia Intel Gaudi2 se compara aos aceleradores de IA da Nvidia em inferência de modelos de linguagem em larga escala. O Gaudi2 oferece desempenho superior ao Nvidia A100 em inferência, com melhor utilização da largura de banda de memória. O custo-benefício para treinamento e inferência supera o Nvidia A100 e H100. Novos dados validam o desempenho da Intel em inferência de modelos de linguagem em larga escala. A tecnologia Gaudi3 está prevista para 2024, prometendo um grande salto de desempenho.